Mata đã giúp U-19 Tây Ban Nha vô địch Giải U-19 châu Âu 2006, nơi anh có được 4 bàn sau 5 trận, chỉ sau đồng đội Alberto Bueno (5 bàn) trong danh sách vua phá lưới của giải đấu.[55]

Ngày 1 tháng 2 năm 2007, Mata được huấn luyện viên trưởng đội tuyển U-21 Tây Ban Nha Iñaki Sáez triệu tập để tham gia trận giao hữu với U-21 Anh khi 18 tuổi, 10 tháng. Anh có trận đấu đầu tiên cho đội tuyển Tây Ban Nha vào ngày 28 tháng 3 năm 2009 tại vòng loại World Cup 2010 gặp Thổ Nhĩ Kỳ.[56]

Tháng 6 năm 2009, Vicente del Bosque đã triệu tập Mata vào đội hình tham dự FIFA Confederations Cup 2009. Anh có hai trận đấu tại giải gặp Iraq và Mỹ.[57]

Ngày 9 tháng 9 năm 2009, Mata có bàn thắng đầu tiên cho đội tuyển sau 4 lần ra sân trong chiến thắng 3-0 trước Estonia, chiến thắng chính thức giúp Tây Ban Nha tham dự World Cup 2010 tại Nam Phi.[58] Sau đó ngày 10 tháng 10, anh ghi bàn từ chấm phạt đền ấn định chiến thắng 2-1 trước Armenia.[59] Mata đã cùng đội tuyển Tây Ban Nha giành danh hiệu vô địch World Cup 2010, giải đấu mà anh chỉ được ra sân duy nhất một lần trong trận đấu vòng bảng với Honduras.[56]

Ngày 26 tháng 5 năm 2011, Mata đã được triệu tập vào đội tuyển U-21 Tây Ban Nha tham dự Giải vô địch bóng đá U-21 châu Âu 2011 tại Đan Mạch.[60] Tại giải đấu này, anh cùng với hai trụ cột quá tuổi khác là Adrián López Álvarez và Diego Capel đã hoàn thành xuất sắc nhiệm vụ làm đầu tàu cho đội U-21 giành chức vô địch giải đấu. Mata đã có hai bàn thắng, hai đường chuyền thành bàn và một lần được bầu làm Cầu thủ hay nhất trận (thắng U-21 Ukraine 3-0 ở lượt cuối vòng bảng).[61] Anh đã được ủy ban kỹ thuật của UEFA bầu vào đội hình tiêu biểu của giải đấu.[62]

Tại Vòng loại Euro 2012, Mata đã có được 2 bàn thắng trong các trận đấu với Litva[63] và Cộng hòa Séc.[64] Tháng 5 năm 2012, anh được gọi vào đội hình chính thức 23 cầu thủ Tây Ban Nha tham dự Euro 2012 tại Ba Lan và Ukraine.[65]

Ngày 1 tháng 7, trong trận chung kết Euro 2012 với đội tuyển Ý, Mata lần đầu tiên được vào sân từ giải đấu và đã ghi bàn ấn định tỉ số 4-0 ở phút 88 chỉ sau không quá 90 giây trên sân và có được danh hiệu vô địch Euro đầu tiên trong sự nghiệp.[66]

Ngày 18 tháng 7, Mata tiếp tục được triệu tập vào đội tuyển U-23 Tây Ban Nha tham dự Olympic Luân Đôn 2012 nhưng U-23 Tây Ban Nha đã bị loại ngay vòng bảng.

Mata có tên trong danh sách 23 cầu thủ Tây Ban Nha tham dự World Cup 2014 tại Brasil.[67] Tại giải đấu này, Tây Ban Nha bị loại ngay sau vòng bảng và Mata chỉ được ra sân duy nhất trong trận đấu với Úc nhưng anh cũng có được một bàn thắng tại giải đấu này với pha ghi bàn ấn định chiến thắng 3-0 trước Úc.[68]